شرکت Character.AI روز چهارشنبه اعلام کرد که به زودی امکان چت آزاد برای نوجوانان را متوقف خواهد کرد. این تصمیم به منظور افزایش ایمنی و مناسبسازی اپلیکیشن برای کاربران زیر 18 سال اتخاذ شده است.
سال گذشته، یک نوجوان 14 ساله به نام Sewell Setzer III پس از ایجاد روابط عاطفی با چتباتهای این اپلیکیشن، جان خود را از دست داد. این مسئله باعث شد که بسیاری از توسعهدهندگان هوش مصنوعی، از جمله OpenAI و Meta، تحت فشار و انتقاد قرار بگیرند.
به عنوان بخشی از اقدامات ایمنی، Character.AI اعلام کرد که کاربران زیر 18 سال به دو ساعت چت روزانه محدود خواهند شد و از 25 نوامبر، چتهای آزاد برای نوجوانان حذف خواهد شد. Karandeep Anand، مدیرعامل این شرکت، گفت: "این یک قدم جسورانه است و امیدواریم که این اقدام معیاری برای دیگران باشد."
این شرکت همچنین اعلام کرد که در حال راهاندازی یک سیستم تأیید سن است که از نرمافزارهای داخلی و خارجی برای نظارت بر سن کاربران استفاده خواهد کرد. Character.AI با شرکت Persona، که توسط Discord و دیگران نیز استفاده میشود، برای تأیید هویت همکاری میکند.
در سال 2024، بنیانگذاران Character.AI به Google DeepMind پیوستند و این توافق شامل مجوز غیر انحصاری برای فناوری مدل زبانی بزرگ این شرکت بود. از زمان تصدی Anand به عنوان مدیرعامل، ویژگیهای بیشتری به اپلیکیشن اضافه شده است که شامل ویدیوهای تولید شده توسط هوش مصنوعی و قالبهای داستانگویی و نقشآفرینی میشود.
اگرچه Character.AI دیگر اجازه چتهای آزاد را به نوجوانان نمیدهد، اما این کاربران همچنان به دیگر خدمات اپلیکیشن دسترسی خواهند داشت. Anand گفت که حدود 10 درصد از 20 میلیون کاربر فعال ماهانه این اپلیکیشن زیر 18 سال هستند و این درصد در حال کاهش است.
این اپلیکیشن عمدتاً از طریق تبلیغات و اشتراک ماهیانه 10 دلار درآمد کسب میکند و پیشبینی میشود که در پایان سال با نرخ 50 میلیون دلار به کار خود ادامه دهد.
علاوه بر این، این شرکت اعلام کرد که یک آزمایشگاه ایمنی هوش مصنوعی مستقل تأسیس خواهد کرد که به تحقیق در زمینه ایمنی برای سرگرمیهای هوش مصنوعی اختصاص خواهد داشت.
در حال حاضر، Character.AI و دیگر شرکتهای چتبات هوش مصنوعی تحت فشار نظارتی قرار دارند. در سپتامبر، کمیسیون تجارت فدرال دستوری به هفت شرکت از جمله Character.AI صادر کرد تا اثرات بالقوه بر کودکان و نوجوانان را بررسی کند.
سناتورهای Josh Hawley و Richard Blumenthal روز سهشنبه از قانونی برای ممنوعیت چتباتهای هوش مصنوعی برای نوجوانان رونمایی کردند. همچنین، فرماندار کالیفرنیا قانونی را امضا کرد که به چتباتها دستور میدهد که خود را به عنوان هوش مصنوعی معرفی کنند و به نوجوانان توصیه کنند که هر سه ساعت یک بار استراحت کنند.
شرکت Meta نیز که چتباتهای هوش مصنوعی ارائه میدهد، ویژگیهای ایمنی جدیدی را معرفی کرده است که به والدین اجازه میدهد تا تعاملات نوجوانان خود با شخصیتهای هوش مصنوعی را مدیریت کنند.
مسئله گفتوگوهای جنسی با چتباتهای هوش مصنوعی به عنوان یک موضوع مهم در حال بررسی است. Sam Altman، مدیرعامل OpenAI، اعلام کرد که این شرکت به بزرگسالان اجازه میدهد تا در آینده نزدیک به گفتوگوهای جنسی با ChatGPT بپردازند. در مقابل، مدیرعامل Microsoft AI گفت که این شرکت "شبیهسازیهای جنسی" ارائه نخواهد داد.
توسعه سریع هوش مصنوعی و ایجاد شخصیتهای هوش مصنوعی شبیه انسان، نگرانیهای اخلاقی و ایمنی را به همراه داشته است، به ویژه برای کودکان و نوجوانان. Anand گفت: "من یک دختر شش ساله دارم و میخواهم مطمئن شوم که او در یک محیط امن با هوش مصنوعی بزرگ میشود."
اگر شما افکار خودکشی دارید یا در distress هستید، با خط کمک خودکشی و بحران به شماره 988 تماس بگیرید.
منبع: CNBC
نظری برای این خبر ثبت نشده است .
عضویت در کانال تلگرام